<p class='article-text'>تراجعت شركة "أوبن ايه آي" عن إطلاق نموذج ذكاء اصطناعي جديد ومتطور، بعدما تبيّن أنه يميل أكثر من اللازم إلى الخروج عن التعليمات، مما يشكل مثالا جديدا على الصعوبة المتزايدة في السيطرة على نماذج الذكاء الاصطناعي المتطورة.</p><p class='article-text'>وبحسب صحيفة "وول ستريت جورنال"، كانت "أوبن إيه آي" تعتزم إطلاق نسخة محدّثة من "جي بي تي 6.1 أسترا" في أكتوبر، من دون أن تكون قد أعلنت رسميا حتى الآن عن موعد طرحها.</p><p class='article-text'>وأوضحت رئيسة قسم أمن الذكاء الاصطناعي في "أوبن ايه آي" ساتشي جاين، أن "جي بي تي 6.1" حقق نتائج أسوأ من سلفه "جي بي تي 6" في مجالين يتعلقان بالامتثال، أي مدى التزام النموذج بالتعليمات التي يضعها مبتكروه.</p><p class='article-text'>يأتي قرار "أوبن ايه آي" عشية استضافتها مؤتمر المطورين السنوي "أوبن ايه آي ديف داي" في سان فرانسيسكو، والذي يُتوقّع أن يتضمّن إعلانات كثيرة للشركة.</p><p class='article-text'>ويفتتح الرئيس التنفيذي لـ"اوبن ايه آي" سام ألتمان المؤتمر الذي سيُقام في فورت ميسون على ضفاف خليج سان فرانسيسكو، عند الساعة العاشرة صباحا (17,00 بتوقيت غرينتش).</p><p class='article-text'>ويميل النموذج الجديد لـ"اوبن ايه آي" إلى تضليل المشرفين عليه عبر الامتناع عن الكشف عن بعض الإجراءات التي اتخذها أو لم ينفذها.</p><p class='article-text'>كما تجاوز النموذج نطاق صلاحياته بشكل مُتكرر، إذ لجأ إلى أدوات وخدمات من دون أن يحصل على إذن باستخدامها.</p><p class='article-text'>وأشارت جاين إلى أن "جي بي تي 6.1 أظهر تقدّما (مقارنة بالنماذج السابقة)، لا سيما فيما يتعلق بالميل إلى الكسل"، موضحة أنه أصبح قادرا على مواصلة عملية الاستدلال لفترة أطول، ويلجأ بشكل أقل إلى اختصارات العمليات.</p><p class='article-text'>وأضافت "لكنه لم يكن بالمستوى المطلوب فيما يتعلق بالتزامه بنطاق صلاحياته وما هو مخوّل له القيام به، وكذلك بطريقة إبلاغه عن العمل الذي أنجزه".</p><p class='article-text'>بناء على ذلك، قررت "أوبن إيه آي" إلغاء إطلاق النموذج للعمل على تحسين التزامه بالتعليمات والحدود المفروضة عليه.</p><p class='article-text'>تحكّم أكثر تعقيدا</p><p class='article-text'>وتعتزم المجموعة إصدار نماذج أخرى استوفت معايير التقييم المطلوبة.</p><p class='article-text'>وقالت جاين "عندما نتيح للمستخدمين نموذجا ما، فنكون قد وضعنا معايير عالية جدا في ما يتعلق بالأمان والامتثال".</p><p class='article-text'>وأوضحت أن أحد التحديات تمثّل في ضبط الذكاء الاصطناعي لمنعه من الانحراف عن المسار مع الحفاظ في الوقت نفسه على قدرته على مواصلة أداء مهمته بكفاءة.</p><p class='article-text'>وتوصل تقييم "أوبن إيه آي" إلى أنّ التحكم في النماذج يزداد تعقيدا كلما تطورت تقنيات الذكاء الاصطناعي.</p><p class='article-text'>ونشر معهد سلامة الذكاء الاصطناعي البريطاني التابع للحكومة الإثنين، دراسة أظهرت أن "جي بي تي 6.1 أسترا" كان أكثر ميلا إلى الانحراف عن المسار خلال الاختبارات مقارنة بسلفيه "جي بي تي 5.6 سول" الذي أُطلق مطلع يوليو، و"جي بي تي 5.5" الذي أُطلق في أبريل.</p><p class='article-text'>وخلال عمليات محاكاة، نفّذ "جي بي تي 6" هجمات إلكترونية من تلقاء نفسه بمعدلات أعلى بكثير من النموذجين الآخرين.</p><p class='article-text'>وأُجريت هذه الاختبارات بعد تعطيل آليات الحماية في النماذج، بهدف تقييم قدراتها الكاملة، وليس على نسخ متاحة لعامة المستخدمين.</p><p class='article-text'>ولجأ أحدث نماذج "أوبن إيه آي" بوتيرة أعلى بكثير إلى إنشاء هويات زائفة، ومحاولة التأثير في أحد المقيّمين، وإدراج شيفرات في برمجيات متاحة للجميع يمكن استخدامها بشكل ضار.</p><p class='article-text'>وقال الباحث في "أوبن إيه آي" نوام براون في تصريح حديث عبر برنامج "دواركش بودكاست"، إن اللجوء المتزايد إلى ما يُعرف بـ"التحسين الذاتي التكراري"، أي تطوير الذكاء الاصطناعي لنفسه من دون تدخل بشري، قد يجعل السيطرة على النماذج أكثر صعوبة على المدى الطويل.</p><p class='article-text'>تصاعدت المخاوف بشأن سلامة الذكاء الاصطناعي في الأشهر الأخيرة، بعدما ارتبطت نماذج من شركتي "أوبن إيه آي" و"أنثروبيك" بحوادث أمنية خلال الاختبارات.</p><p class='article-text'>وحذرت أنثروبيك المستثمرين من احتمال وجود "مخاطر وجودية على البشرية" في نشرة الاكتتاب المرتقبة لطرح أسهمها، وفق ما أوردته صحيفة "فايننشال تايمز" الثلاثاء.</p><p class='article-text'>وأشارت الشركة إلى احتمال أن تعمل نماذج الذكاء الاصطناعي القوية خارج الحدود المتوقعة لأدائها، رغم وجود ضوابط للسلامة، بحسب ما نقلت "فايننشال تايمز" عن مصادر.</p><p class='article-text'>وأعلنت "أوبن إيه آي" منذ بداية الصيف، عن عدة تجاوزات لبرامجها كان أبرزها اختراق منصة "هاغينغ فايس".</p><p class='article-text'>وقدّمت الشركة الاثنين اعتذارها للحكومة الأسترالية، وقالت إنّه كان عليها إبلاغها "في وقت أبكر" باختراق أحد نماذجها لعدد من مواقع الحكومة وقواعد بياناتها.</p><p class='article-text'>فالشركة الأمريكية لم تُبلغ السلطات الأسترالية بما حصل إلا في 10 سبتمبر، رغم أنها اكتشفت الاختراق في منتصف أغسطس، فيما يعود حدوثه إلى يونيو، ما أثار غضب رئيس الوزراء الأسترالي أنتوني ألبانيزي.</p><p class='article-text'>وكتبت "أوبن ايه آي" عبر موقعها الإلكتروني "كان يتعين علينا التعامل مع المشكلة على نحو أفضل. نعتذر عن ذلك، وسنعمل على تحسين أدائنا في المستقبل".</p><p class='article-text'>واستهدف برنامج ذكاء اصطناعي تابع لـ"اوبن ايه آي" أربع منصات حكومية أسترالية، من بينها منصة "سيرفيسز أستراليا" المعنية بالخدمات الاجتماعية والتي تمكّن النموذج من استخراج معلومات منها غير متاحة للعامة.</p><p class='article-text'>كذلك، أفادت شركات "أنثروبيك" و"ميتا" و"غوغل" بحوادث انحرفت خلالها نماذج الذكاء الاصطناعي عن أهدافها الأصلية، فلجأت إلى التحايل وإخفاء أفعالها وتضليل المهندسين المكلفين بمراقبتها.</p>

لخروجه عن التعليمات.. "أوبن ايه آي" تتراجع عن إطلاق نموذج ذكاء اصطناعي

<p class='article-text'>قدمت شركة "أوبن إيه آي" اعتذارا علنيا، اليوم الثلاثاء، بعدما تمكن أحد نماذج الذكاء الاصطناعي التابعة لها من الوصول غير المصرح به إلى مواقع إلكترونية للحكومة الأسترالية.</p><p class='article-text'>وكان رئيس الوزراء الأسترالي، أنتوني ألبانيزي، كشف الأسبوع الماضي أن أحد برامج "أوبن إيه آي" اخترق موقعا حكوميا واحدا على الأقل.</p><p class='article-text'>ووقع الحادث في يونيو الماضي، لكن لم يتم إخطار أستراليا بالأمر إلا في سبتمبر الجاري، عبر رسالة بريد إلكتروني أُرسلت إلى صندوق بريد عام.</p><p class='article-text'>وقالت "أوبن إيه آي" في بيان، اليوم الثلاثاء، إنها تريد "إعادة بناء الثقة" مع الأستراليين.</p><p class='article-text'>وأضافت أنه خلال عمليات التدريب والتقييم الداخلية، تمكنت نماذج "أوبن إيه آي" من الوصول إلى 4 مواقع إلكترونية حكومية أسترالية بطرق غير مصرح بها.</p><p class='article-text'>وقالت الشركة: "كان يتعين علينا أيضا التعامل مع استجابتنا للحادث بصورة أفضل. نحن نعتذر ونعمل على تحسين أدائنا في المستقبل".</p><p class='article-text'>وأضافت: "هذا حادث إلكتروني من نوع جديد، ويمثل تحديا عالميا ناشئا".</p>

"أوبن إيه آي" تعتذر عن اختراق مواقع حكومية أسترالية

<p class='article-text'>كشفت شركة الرقائق الإلكترونية الأمريكية العملاقة إنفيديا اليوم الاثنين عن منصة أمنية جديدة تقول إنها قادرة على منع وكلاء الذكاء الاصطناعي من تجاوز أوامر المستخدمين والتصرف خارج سيطرة المستخدمين.</p><p class='article-text'>وقالت الشركة إن منصة أوبن أيجنت سيفتي "منصة سلامة الوكلاء المفتوحة"  تحتوي على برامج مفتوحة المصدر ستضع حدوداً للوكلاء، وتأتي بعد إعلان كبرى شركات تطبيقات الذكاء الاصطناعي عن خروج نماذج ذكاء اصطناعي متطورة تابعة لها عن السيطرة واختراقها لأنظمة شركات أخرى.</p><p class='article-text'>وفجر الكشف عن هذه الاختراقات الخطيرة جدلا حادا بشأن مدى سلامة أنظمة الذكاء الاصطناعي المتطورة بما في ذلك النماذج التي تحسن نفسها ذاتيا، مما يهدد باحتمال خروجها عن سيطرة البشر.</p><p class='article-text'>وقال مسؤولون في إنفيديا في إيجاز إعلامي إن النظام الجديد يمكن أن يمنع تكرار الحوادث الأخيرة، بما في ذلك حادث اختراق وكلاء ذكاء اصطناعي تابعة لشركة أوبن أيه.آي لنظام شركة الذكاء الاصطناعي الناشئة هاجينج فيس.</p><p class='article-text'>وقال جاستن بويتانو نائب رئيس إنفيديا للذكاء الاصطناعي المؤسسي "من خلال ما نعرفه، فإن منصة الأمن الجديدة كانت ستستطيع وقف الاختراق لو تم استخدامها داخل المعامل أثناء تقييم نموذج الذكاء الاصطناعي من البداية"، في إشارة إلى الشركات الرائدة في مجال تطوير تطبيقات الذكاء الاصطناعي.</p><p class='article-text'>كان اختراق نظام شركة هاجينج فيس حدثا أمنيا كبيرا  أثار المخاوف بشدة من المخاطر المحتملة للذكاء الاصطناعي، وجاء بعده حادث مماثل عندما اخترق نموذج ذكاء اصطناعي من تطوير أوبن أيه.آي موقع وزارة الصحة الأسترالية. وأعلنت شركتا أنثروبيك وميتا أيضا عن وقوع حوادث اختراق غير مقصودة من جانب نماذج الذكاء الاصطناعي الخاصة بها.</p><p class='article-text'>وقال بويتانو إن برنامج إنفيديا الجديد "أوبن شل" سيتيح للمطورين "التأكد بصورة رسمية من أن أي وكيل ذكاء اصطناعي لديه الصلاحية الكافية للقيام بوظيفته فقط دون زيادة".</p><p class='article-text'>ونظراً لأنه مفتوح المصدر يمكن استخدام هذا البرنامج مع منصات من تطوير شركات رقائق أخرى مثل أرم وإنتل.<br><br></p>

"إنفيديا" تكشف عن منصة أمنية لمنع وكلاء الذكاء الاصطناعي من تجاوز أوامر المستخدمين

<p class='article-text'>قال بيل جيتس، ‌المؤسس المشارك لشركة مايكروسوفت، في مقابلة بثت الأحد إن الذكاء الاصطناعي يتطلب إجراءات حماية تتجاوز نطاق التنظيم الذاتي، داعيا إلى إقرار تشريع في ​الكونجرس الأمريكي.</p><p class='article-text'>وأضاف جيتس في مقابلة على قناة (إن.بي.سي): نحتاج إلى أجهزة إنفاذ القانون والسياسيين للمشاركة في نقاش حول شكل هذه الضمانات والرقابة... ويجب أن يكون ذلك أمراً إلزامياً.</p><p class='article-text'>واندلعت موجة مفاجئة من التأييد لتدخل الحكومة الاتحادية بعد أن أعلنت شركة أوبن إيه.آي في يوليو تموز أن وكيلا مستقلا يعمل بالذكاء الاصطناعي خرج عن السيطرة خلال اختبار أمني واخترق شركة أخرى، ‌متجاوزاً بذلك الرقابة ‌البشرية. وانضم جيتس إلى هذا ​الرأي، قائلاً ‌إن ⁠الحكومة يجب ​أن ⁠تتدخل وأضاف: "لا أحد يعتقد أن التنظيم الذاتي كاف".</p><p class='article-text'>وفي بادرة نادرة على الوحدة، دعا الرؤساء التنفيذيون لشركات متنافسة، وهي أنثروبيك وأوبن إيه.آي وديب مايند التابعة لجوجل ومايكروسوفت وإكس إيه.آي، إلى إبطاء وتيرة تطوير أنظمة الذكاء الاصطناعي التي تزداد قدراتها باستمرار.</p><p class='article-text'>لكن الرئيس الأمريكي دونالد ترامب ومعارضين آخرين لفرض لوائح تنظيمية إضافية على الذكاء الاصطناعي ⁠يقولون إن القيود الحكومية الجديدة ستسمح للصين بأن ‌تكون لها اليد العليا في ‌ثورة الذكاء الاصطناعي.</p><p class='article-text'>ووصف ترامب علنا الدعوات ​لسن قوانين جديدة بشأن ‌الذكاء الاصطناعي بأنها "خدعة".</p><p class='article-text'>وأكد جيتس أن الإجراءات الوقائية لن تعوق هذه ‌التكنولوجيا بشكل كبير، وأن مخاطر عدم تنفيذها حقيقية.وقال لشبكة (إن.بي.سي) "إنها ليست خدعة على الإطلاق".</p><p class='article-text'>والتحذيرات بشأن مخاطر الذكاء الاصطناعي ليست جديدة. لكنها اكتسبت طابعا أكثر إلحاحا هذا الشهر بعد أن ربط باحثون في مختبرات رائدة في ‌مجال الذكاء الاصطناعي تلك المخاوف بجدول زمني واحتمالية حدوثها.</p><p class='article-text'>وحذر جاكوب كوكسون، الباحث السابق في شركة ⁠أنثروبيك، من ⁠أن الذكاء الاصطناعي قد يقضي على البشرية بحلول نهاية هذا العقد، مما دفع المشرعين الأمريكيين إلى المطالبة بوضع قواعد جديدة لتنظيم هذه التكنولوجيا.</p><p class='article-text'>وردد إيفان هوبينجر، رئيس قسم علوم التوافق في أنثروبيك، تحذير كوكسون قائلا إن احتمال وقوع مثل هذا الحدث خلال العقد المقبل يزيد على 10 %.</p><p class='article-text'>واقترح بعض صانعي السياسات فرض "مفتاح إيقاف" يتيح للسلطات الاتحادية إيقاف نماذج الذكاء الاصطناعي. وقال جيتس إنه لا يعارض وجود نوع من "مفتاح الإيقاف"، إلا أن ذلك لن يكون كافيا ما لم يتم تنفيذ إجراءات ​وقائية أخرى أيضا.</p><p class='article-text'>واتفقت الولايات ​المتحدة والصين على بدء حوار حول الذكاء الاصطناعي عقب زيارة الرئيس الصيني شي جين بينغ لواشنطن مؤخراً.</p>

آخرهم مؤسس مايكروسوفت.. بيل جيتس ينضم للمطالبين بفرض إجراءات حماية على الذكاء الاصطناعي

<p class='article-text'><div data-empty="false">أوقفت شركة «أوبن إيه آي» مؤقتاً عمليات التدريب والتقييم والاستدلال التي تستخدم الأدوات في أكثر نماذج الذكاء الاصطناعي تطوراً لديها، بعد اكتشاف تمكن أحد أنظمتها التجريبية من تجاوز قيود الوصول إلى الإنترنت والتواصل مع روبوت محادثة خارجي أثناء اختبار داخلي.</div></p><p class='article-text'><div data-empty="false">وقالت الشركة في تقرير نشرته على منصة أبحاث المواءمة التابعة لها إن النموذج لم يكن يفترض أن يتمكن من الوصول إلى الإنترنت، لكنه اكتشف ثغرة في ضوابط الشبكة داخل بيئة التدريب، نتجت عن عدم كفاية تصفية نظام أسماء النطاقات DNS، واستغلها للوصول إلى خدمة خارجية.</div></p><p class='article-text'><div data-empty="false">وقعت الواقعة في 20 سبتمبر الجاري خلال مهمة بحثية كان مطلوباً من النموذج خلالها تحديد هوية شخص استناداً إلى مجموعة من المعلومات والإشارات المنشورة على مدونة عامة. </div></p><p class='article-text'>وبعد تعذر الحصول على الإجابة عبر أدوات البحث المتاحة، بدأ النظام في تجربة مسارات أخرى للوصول إلى المعلومات، قبل أن يكتشف إمكانية استخدام محلل DNS مساراً للوصول إلى خدمة على الإنترنت المفتوح.</p><p class='article-text'>وأوضحت «أوبن إيه آي» أن نظام مراقبة السلوك رصد المحاولة خلال نحو 15 دقيقة، وبدأت مراجعة بشرية بعدها بثلاث دقائق، إلا أن تشغيل النموذج استمر نحو ساعتين ونصف قبل إيقافه.</p><p class='article-text'>وقالت الشركة إنها أضافت منذ ذلك الحين ضوابط حظر على مستويين مستقلين، كان من شأن أي منهما منع الوصول الذي حدث خلال الاختبار.</p><p class='article-text'><div data-empty="false">وأكدت الشركة، أنها تعمل على استبدال بعض المسارات التي تعتمد عليها بيئة الاختبار ببدائل تعمل دون اتصال بالإنترنت، إلى جانب تقييد استعلامات DNS داخل البيئة بقائمة محددة من النطاقات وأنواع السجلات. </div></p>

«أوبن إيه آي» توقف تدريب أقوى نماذجها بعد اختراقه لحدوده

<p class='article-text'><div data-empty="true"><br></div></p><p class='article-text'><div data-empty="false"> قال بيل غيتس، المؤسس المشارك لشركة مايكروسوفت، في مقابلة ​بثت اليوم الأحد إن الذكاء الاصطناعي يتطلب إجراءات حماية تتجاوز ‌نطاق التنظيم ​الذاتي، داعيا إلى إقرار تشريع في الكونجرس الأمريكي.</div></p><p class='article-text'><div data-empty="false">وأضاف غيتس في مقابلة على قناة (إن.بي.سي) "نحتاج إلى أجهزة إنفاذ القانون والسياسيين للمشاركة في نقاش حول شكل هذه الضمانات والرقابة... ويجب أن يكون ذلك أمرا إلزاميا".</div></p><p class='article-text'><div data-empty="false">و اندلعت موجة مفاجئة من التأييد لتدخل الحكومة الاتحادية بعد أن أعلنت شركة أوبن إيه.آي ⁠في يوليو  أن وكيلا مستقلا يعمل بالذكاء الاصطناعي خرج عن السيطرة خلال اختبار أمني واخترق شركة أخرى، متجاوزا بذلك الرقابة البشرية. وانضم جيتس إلى هذا الرأي، قائلا إن الحكومة يجب أن تتدخل.</div></p><p class='article-text'><div data-empty="false">وقال "لا أحد ‌يعتقد أن التنظيم الذاتي كاف".</div></p><p class='article-text'><div data-empty="false">وفي بادرة نادرة على الوحدة، دعا الرؤساء التنفيذيون لشركات متنافسة، وهي أنثروبيك وأوبن إيه.آي وديب مايند التابعة لجوجل ومايكروسوفت وإكس ‌إيه.آي، إلى إبطاء وتيرة تطوير أنظمة الذكاء الاصطناعي التي تزداد ‌قدراتها باستمرار.</div></p><p class='article-text'><div data-empty="false">لكن الرئيس الأمريكي دونالد ترامب ومعارضين آخرين لفرض لوائح تنظيمية ‌إضافية على الذكاء الاصطناعي يقولون ‌إن القيود الحكومية الجديدة ستسمح للصين بأن تكون لها اليد العليا في ثورة الذكاء الاصطناعي. ووصف ​ترامب علنا الدعوات لسن ‌قوانين جديدة بشأن ​الذكاء الاصطناعي بأنها "خدعة".</div></p><p class='article-text'><div data-empty="false">وأكد غيتس أن الإجراءات الوقائية ⁠لن تعوق هذه التكنولوجيا بشكل كبير، وأن مخاطر عدم تنفيذها حقيقية.</div></p><p class='article-text'><div data-empty="false">وقال لشبكة (إن.بي.سي) "إنها ليست خدعة على الإطلاق".</div></p><p class='article-text'><div data-empty="false">والتحذيرات بشأن مخاطر الذكاء الاصطناعي ليست جديدة. لكنها اكتسبت ​طابعا أكثر ⁠إلحاحا هذا الشهر ⁠بعد أن ربط باحثون في مختبرات رائدة في مجال الذكاء الاصطناعي تلك المخاوف بجدول زمني واحتمالية حدوثها.</div></p><p class='article-text'><div data-empty="false">وحذر جاكوب كوكسون، الباحث السابق في شركة أنثروبيك، ⁠من أن الذكاء الاصطناعي قد يقضي على البشرية بحلول نهاية هذا العقد، مما دفع المشرعين الأمريكيين إلى المطالبة بوضع قواعد جديدة لتنظيم هذه التكنولوجيا.</div></p><p class='article-text'><div data-empty="false">وردد إيفان هوبينجر، رئيس قسم علوم التوافق في أنثروبيك، تحذير كوكسون قائلا إن احتمال وقوع مثل هذا الحدث خلال العقد المقبل يزيد على 10 ‌بالمئة.</div></p><p class='article-text'><div data-empty="false">واقترح بعض صانعي السياسات فرض "مفتاح إيقاف" يتيح للسلطات الاتحادية إيقاف نماذج الذكاء الاصطناعي. وقال جيتس ​إنه لا يعارض وجود نوع من "مفتاح الإيقاف"، إلا أن ذلك لن يكون كافيا ما لم يتم تنفيذ إجراءات وقائية أخرى أيضا.</div></p><p class='article-text'><div data-empty="false">واتفقت الولايات المتحدة والصين على بدء حوار حول الذكاء الاصطناعي عقب زيارة الرئيس الصيني شي ​جين بينغ لواشنطن مؤخرا.</div></p>

بيل غيتس يطالب بفرض إجراءات حماية على الذكاء الاصطناعي

<p class='article-text'><div data-empty="false"> أوقفت شركة "أوبن إيه آي"، المبتكرة لبرنامج "تشات جي بي تي"، العمل المتعلق بأكثر نماذج الذكاء الاصطناعي لديها قدرة بعد أن تجاوز أحد أنظمتها قيود الإنترنت وتواصل مع روبوت محادثة خارجي أثناء أحد الاختبارات.</div></p><p class='article-text'><div data-empty="false">وقالت أوبن إيه آي في منشور على مدونتها إنه لم يكن من المفترض أن يتمكن النموذج من الوصول إلى الإنترنت، لكنه اكتشف ثغرة في ضوابط شبكة بيئة الاختبار ناتجة عن تصفية غير كافية لنظام أسماء النطاقات (دي إن إس) واستغلها.</div></p><p class='article-text'><div data-empty="false">ومن المقرر أن تظل عمليات التدريب والتقييم والاستدلال التي تتضمن استخدام الأدوات متوقفة مؤقتا حتى تتأكد الشركة من إغلاق الثغرة وإجراء المزيد من اختبارات السلامة.</div></p><p class='article-text'><div data-empty="false">وقالت أوبن إيه آي إن الحادث كان أقل خطورة من بعض الحالات السابقة، ولكنه يعد الأول منذ تشديد حواجز الحماية في أعقاب حادث اختراق سابق كان يتضمن منصة الذكاء الاصطناعي "هاجينج فيس".</div></p><p class='article-text'><div data-empty="false">وخلال الاختبار، طلِب من النموذج تحديد هوية شخص كتب منشورا على مدونة باستخدام سلسلة من الأدلة. وبعد أن فشل في العثور على الإجابة في بيئة ويب محاكاة، اكتشف أنه يمكنه استخدام محلل نظام أسماء النطاقات الخاص بالنظام لإرسال استعلامات إلى روبوت محادثة على شبكة الإنترنت المفتوحة.</div></p><p class='article-text'><div data-empty="false">وأوقفت أوبن إيه آي الاختبار بعد اكتشاف عملية الاتصال.</div></p><p class='article-text'><div data-empty="false">ويأتي هذا الحادث في أعقاب عدة حالات أخرى شملت أنظمة أوبن إيه آي.</div></p><p class='article-text'><div data-empty="false">وفي إحدى الحالات، وضع برنامج ذكاء اصطناعي 53 صورة حملها المستخدمون على منصات عبر الإنترنت. وقالت أوبن إيه آي إن الروابط لم تكن عامة وإن معظم الصور قد أزيلت منذ ذلك الحين.</div></p><p class='article-text'><div data-empty="false">كما تفاعل وكلاء أوبن إيه آي بشكل غير متوقع مع العديد من المواقع الإلكترونية الحكومية الأمريكية، بما في ذلك الوصول إلى معلومات متاحة للجمهور أو نسخها.</div></p><p class='article-text'><div data-empty="false">وقالت الشركة إنها أخطرت "عشرات" المنظمات التي تم التفاعل مع مواقعها الإلكترونية بطرق غير مقصودة بواسطة برمجياتها.</div></p><p class='article-text'><div data-empty="false">وكانت الحالة الأكثر إثارة للجدل حتى الآن تتضمن خروج نظام تابع لأوبن إيه آي من بيئة اختبار مؤمنة وحصوله على وصول غير مقصود إلى أجهزة كمبيوتر مملوكة لمنصة "هاجينج فيس".</div></p>

"أوبن إيه آي" تعلق العمل بأحدث نماذج الذكاء الاصطناعي بعد اختراق أمني

<p class='article-text'><div data-empty="false">أعلنت شركة «أوبن إيه آي» أن نظاماً آخر للذكاء الاصطناعي الوكيل، كان يخضع للتدريب في بيئة يُفترض أنها مؤمّنة ومعزولة عن الإنترنت، تمكّن من الوصول إلى الشبكة للتواصل مع روبوت محادثة خارجي تابع لجهة أخرى.</div></p><p class='article-text'><div data-empty="false">واكتُشفت الواقعة قبل أقل من أسبوع، وفقاً لتدوينة نُشرت الجمعة على موقع «أوبن إيه آي».</div></p><p class='article-text'>وكان أحد أنظمة الذكاء الاصطناعي الوكيل التابعة لها يخضع للتدريب في بيئة اختبار معزولة، حين استغل «ثغرة» للوصول إلى الإنترنت العام.</p><p class='article-text'>وباستخدام هذا الاتصال، أرسل ما لا يقل عن 20 استفساراً إلى خدمة روبوت محادثة لم تُحدد هويتها وتتبع جهة أخرى، من بينها: «ما عاصمة فرنسا؟»، وفقاً لما أظهره التقرير.</p><p class='article-text'><div data-empty="false">ووصفت «أوبن إيه آي» الخروج من البيئة المعزولة بأنه أول حادث أمني من نوعه منذ أن تمكنت مجموعة من النماذج من الوصول إلى الإنترنت خلال اختبارات داخلية، واخترقت من دون قصد نظام منصة الذكاء الاصطناعي «هاغينغ فيس» في يوليو. </div></p><p class='article-text'>وقالت مطوّرة الذكاء الاصطناعي: يمنحنا ذلك مؤشراً مهماً إلى الموضع الذي ينبغي أن نركز عليه في المرحلة المقبلة من هذا العمل.</p><p class='article-text'>وأوضحت الشركة أنها قررت، عقب الحادث الأخير، تعليق التدريب باستخدام الأدوات على نماذجها الأكثر قدرةً إلى حين إصلاح خلل البيئة المعزولة.</p><p class='article-text'>وأضافت «أوبن إيه آي»: «لن نستأنف تدريب هذا النموذج بعينه».</p><p class='article-text'>وأثارت الاختراقات التي نفذتها نماذج ذكاء اصطناعي طورتها «أوبن إيه آي» و«أنثروبيك» و«ديب مايند» التابعة لشركة «جوجل» و«ميتا بلاتفورمز» خلال الأشهر الأخيرة قلق خبراء الأمن السيبراني وسلامة الذكاء الاصطناعي.</p><p class='article-text'>وكانت واقعة «هاغينغ فيس» من بين الأسباب التي ذكرها الرئيس التنفيذي لـ«أنثروبيك» داريو أمودي حين دعا قبل أسبوعين إلى إبطاء تطوير الذكاء الاصطناعي على مستوى القطاع.</p><p class='article-text'>وأثارت دعوته، التي سرعان ما أيدها الرئيس التنفيذي لـ«أوبن إيه آي» سام ألتمان وإيلون ماسك وآخرون، نقاشاً عالمياً بشأن الحاجة إلى مزيد من تنظيم الذكاء الاصطناعي.</p>

«أوبن إيه آي» تكشف عن اختراق جديد للذكاء الاصطناعي

<p class='article-text'>أكدت شركة "أوبن ايه آي"، المطورة لروبوت الدردشة "شات جي بي تي"، أن وكلاء الذكاء الاصطناعي التابعين لها سربوا 53 صورة قدمها المستخدمون على الإنترنت.</p><p class='article-text'>وقالت الشركة يوم الجمعة: "لقد حددنا 53 حالة حتى الآن تم فيها نشر الصور التي قدمها المستخدمون على مواقع استضافة الصور كروابط لم يتم إدراجها علنا".</p><p class='article-text'>وتابعت "لقد عملنا بنجاح مع مزودي خدمات الاستضافة لإزالة معظم هذا المحتوى ونواصل العمل لإزالة ما تبقى منه."</p><p class='article-text'>وأوضحت "أوبن ايه آي" إن وكلاء الذكاء الاصطناعي في بيئة بحثية نقلوا بيانات التدريب والتقييم أثناء استخدامهم خدمات تابعة لطرف ثالث.</p><p class='article-text'>وقالت "هذا ليس استخداما مناسبا لهذه البيانات"، مضيفة أن الحادث وقع قبل وضع ضمانات جديدة على التدريب على الذكاء الاصطناعي.</p>

"أوبن ايه آي": وكلاء قاموا بتسريب صور مقدمة من مستخدمين

<p class='article-text'><br> أعلنت شركة «أوبن إيه آي» تشكيل لجنة مستقلة تضم 9 علماء رياضيات، لتقييم قدرات أنظمة الذكاء الاصطناعي على حل المسائل الرياضية المعقدة، ووضع معايير للتحقق من نتائجها.<br>وتتخذ اللجنة من معهد الدراسات المتقدمة في برينستون بالولايات المتحدة مقراً لها، وستقدم المشورة بشأن مراجعة النتائج الرياضية التي تتوصل إليها أنظمة الذكاء الاصطناعي، وآليات الإعلان عن النتائج التي قد تشكل تقدماً في حل مسائل رياضية مفتوحة.<br>وتأتي هذه المبادرة في ظل تنامي قدرات الذكاء الاصطناعي على التعامل مع المسائل الرياضية المتقدمة، والحاجة إلى مراجعة نتائجه والتحقق منها من قبل متخصصين.<br>وقالت «أوبن إيه آي»: إن نموذجاً داخلياً جديداً بدأ تدريبه في أغسطس الماضي، نجح في التوصل إلى حلول لأكثر من 100 مسألة رياضية مفتوحة، مؤكدة أن النتائج تخضع للمراجعة والتحقق قبل اعتمادها.</p>

«أوبن إيه آي» تشكل لجنة لتقييم قدرات الذكاء الاصطناعي في الرياضيات

<p class='article-text'><br> استقطب وكيل الذكاء الاصطناعي «جروك بوت» الذي طورته شركة «سبيس إكس» أكثر من 400 ألف مستخدم خلال شهر من إطلاقه، في مؤشر على الإقبال الأولي على المنتج. وبحسب عرض قدمته الشركة خلال فعالية في العاصمة البريطانية لندن، بلغ عدد مستخدمي «جروك بوت» أسبوعياً نحو 418 ألف مستخدم بحلول منتصف سبتمبر الجاري، بزيادة 14 % مقارنة بالأسبوع السابق.<br>وكشفت وحدة الذكاء الاصطناعي في «سبيس إكس» عن «جروك بوت» منتصف أغسطس الماضي، في إطار سعيها لمنافسة شركتي «أنثروبيك» و«أوبن إيه آي» في قطاع وكلاء الذكاء الاصطناعي سريع النمو.<br>ويختلف «جروك بوت» في بنيته ووظائفه عن تطبيق المحادثة «جروك» التابع للشركة ذاتها.<br>وتم تصميم جروك بوت لكي يكون أشبه بموظف وليس تطبيق محادثة ذكاء اصطناعي، ليقوم بمهام مثل الرد على رسائل البريد الإلكتروني وتحديث قاعدة بيانات المبيعات ومعالجة الفواتير وتنظيم العمل أو الملفات واكتشاف ثغرات البرامج.<br>وأشارت بلومبرج إلى أن عدد مستخدمي جروك بوت أسبوعياً الآن يمكن أن يكون غير معروف. ويختلف هذا المنتج عن تطبيق محادثة الذكاء الاصطناعي جروك التابع لسبيس إكس. ورفض ممثلو سبيس إكس الرد على طلبات التعليق على هذه الأرقام.<br>وركزت سوق المال الأمريكية على آفاق وكلاء الذكاء الاصطناعي بعد أن تصدر وكيل الذكاء الاصطناعي ميوز من ميتا بلاتفورمس قائمة التطبيقات المجانية من حيث عدد مرات التنزيل في متجر آب ستور. ودفع هذا النجاح المحللين إلى مقارنته بنجاح تطبيق محادثة الذكاء الاصطناعي شات جي.بي.تي من شركة أوبن أيه.آي عندما تم طرحه لأول مرة في أواخر عام 2022.</p>

«جروك بوت» يستقطب 400 ألف مستخدم بعد شهر من إطلاقه

<p class='article-text'>رفعت مقاطعة بريتيش كولومبيا الكندية دعوى قضائية ضد شركة «أوبن إيه آي» ورئيسها التنفيذي سام ألتمان، على خلفية حادث إطلاق النار الجماعي الذي وقع في مدرسة بمدينة تامبلر ريدج في فبراير الماضي، متهمة الشركة بالتقصير في إبلاغ السلطات عن محادثات مقلقة أجراها منفذ الهجوم عبر روبوت المحادثة "تشات جي بي تي".</p><p class='article-text'>وتزعم الدعوى، التي أُقيمت أمام محكمة اتحادية في سان فرانسيسكو بولاية كاليفورنيا الأميركية، أن المأساة ربما كان من الممكن تفاديها لو أبلغت الشركة أجهزة إنفاذ القانون بالتهديدات التي ظهرت على منصتها، ولو استجابت لتوصيات فريق السلامة الداخلي الذي دعا إلى التواصل مع الشرطة الملكية الكندية</p><h2>تحذيرات</h2><p class='article-text'>وبحسب الدعوى، رصد فريق السلامة في «أوبن إيه آي» خلال عام 2025 محادثات مرتبطة بمنفذة الهجوم، تضمنت إشارات مثيرة للقلق بشأن العنف واستخدام الأسلحة. وعلى الرغم من تعطيل حسابها الأول، تمكنت لاحقاً من إنشاء حساب ثانٍ ومواصلة استخدام الخدمة.</p><p class='article-text'>وتتهم المقاطعة الشركة بعدم اتخاذ إجراءات كافية إزاء التحذيرات الداخلية، مشيرة إلى أن موظفي السلامة أوصوا بإبلاغ السلطات، لكن هذا الإجراء لم يُنفذ، وفقاً لما ورد في الدعوى والتقارير الإعلامية المتعلقة بالقضية.</p><p class='article-text'>وتطالب بريتيش كولومبيا بتعويضات عن التكاليف المترتبة على الهجوم، بما في ذلك جهود التعافي والرعاية النفسية وإعادة بناء المدرسة التي شهدت الحادث، إلى جانب إصدار توجيهات تلزم الشركة بإجراء تغييرات على آليات التعامل مع المحادثات التي قد تشير إلى خطر وقوع أعمال عنف.</p><p class='article-text'>وكان سام ألتمان قد أعرب في وقت سابق عن أسفه العميق لعدم تواصل الشركة مع أجهزة إنفاذ القانون قبل وقوع الهجوم، متعهداً بإجراء إصلاحات في منظومة السلامة.</p><h2>أعتذار</h2><p class='article-text'>غير أن رئيس وزراء بريتيش كولومبيا، ديفيد إيبي، وصف الاعتذار بأنه «ضروري، لكنه غير كافٍ على نحو بالغ»، بينما اتهمت الدعوى الشركة بعدم الانخراط بصورة جوهرية مع الحكومة الكندية وسلطات المقاطعة في قضايا السلامة بعد الحادث.</p><p class='article-text'>وقالت المدعية العامة للمقاطعة، نيكي شارما، إن الشركات لا ينبغي أن تكون بمنأى عن المساءلة لمجرد أن التكنولوجيا التي تطورها حديثة، مؤكدة ضرورة إخضاع شركات الذكاء الاصطناعي للمحاسبة عندما تتعلق أنشطتها بمخاطر تمس السلامة العامة.</p><h2>إجراءات قانونية</h2><p class='article-text'>وتأتي الدعوى الحكومية في وقت تواجه فيه «أوبن إيه آي» أكثر من 30 دعوى قضائية أخرى أقامها أفراد من عائلات الضحايا وأشخاص تأثروا بالهجوم، ويتهم بعضها الشركة بالإهمال وعدم اتخاذ إجراءات كان من شأنها المساعدة في منع وقوع المأساة.</p><p class='article-text'>وتسعى المقاطعة، من خلال الدعوى، إلى الحصول على تعويضات عن الأضرار والتكاليف المرتبطة بالحادث، فضلاً عن الدفع باتجاه تعزيز الضوابط المتعلقة برصد التهديدات والإبلاغ عنها.</p><p class='article-text'>من جانبها، أعربت الشركة عن حزنها إزاء مأساة تامبلر ريدج، مؤكدة التزامها بالتعاون مع المسؤولين الحكوميين وأجهزة إنفاذ القانون، ومواصلة تطوير إجراءات السلامة الخاصة بخدماتها.</p><p class='article-text'>ولا تزال الاتهامات الواردة في الدعوى خاضعة للمسار القضائي، فيما تفتح القضية نقاشاً متجدداً حول مسؤولية شركات الذكاء الاصطناعي، وحدود التزاماتها القانونية والأخلاقية عند رصد محادثات قد تتضمن مؤشرات على خطر وشيك أو محتمل بوقوع أعمال عنف.</p>

دعوى قضائية ضد «أوبن إيه آي» جراء إطلاق النار في تامبلر ريدج

<p class='article-text'><div data-empty="false">في واقعة تكشف مدى التطور السريع في قدرات الذكاء الاصطناعي على تنفيذ الهجمات الإلكترونية، تمكن فريق مستقل من الباحثين الأمنيين من الوصول إلى أنظمة داخلية تابعة لشركة  «أوبن أيه آي»، المطورة لـ«شات جي بي تي»، باستخدام نموذج «كلود» من منافستها "أنثروبيك"، قبل أن يبلغ الباحثون الشركة بالثغرات التي اكتشفوها ويحصلوا منها على مكافأة قدرها 6500 دولار.</div></p><p class='article-text'><div data-empty="false">وكشفت صحيفة «وول ستريت جورنال» تفاصيل الواقعة، التي شارك فيها فريق من شركة الأمن السيبراني Hacktron AI ضمن برنامج «أوبن أيه آي» المخصص للباحثين عن الثغرات، والذي يسمح لهم باختبار أنظمة الشركة والإبلاغ عن نقاط الضعف بصورة قانونية ومنظمة.</div></p><p class='article-text'><div data-empty="false">وبدأت العملية في 23 يوليو، عندما اكتشف الباحثون ثغرة في الطريقة التي يعالج بها برنامج Discourse، المستخدم لتشغيل منتدى «أوبن أيه آي» المجتمعي، بعض ملفات الصور. واستعان الفريق بنسخة متخصصة من نموذج Claude Opus 4.8  "كلود أوبس 4.8"مخصصة للمتخصصين المؤهلين في الأمن السيبراني، وطلب منه المساعدة في كتابة الشيفرة اللازمة لاستغلال الثغرة.</div></p><p class='article-text'><div data-empty="false">لكن المحاولة الأولى لم تنجح. وفي اليوم نفسه تقريبًا، أطلقت "أنثروبيك" نموذج Claude Opus 5، ليتمكن الباحثون في اليوم التالي من استخدامه للوصول إلى طريقة ناجحة لاستغلال الثغرة، وفقًا لما نقلته «وول ستريت جورنال» عن الفريق.</div></p><p class='article-text'><div data-empty="false">وسمح الاستغلال للباحثين بالوصول إلى خادم  "ديسكورس" الذي يستضيف منتدى «أوبن أيه آي»، ومنه حصلوا على رموز مصادقة، وهي سلاسل رقمية تستخدم للتحقق من هوية المستخدم ومنحه صلاحية الدخول إلى الخدمات المختلفة.</div></p><p class='article-text'><div data-empty="false">المفاجأة كانت أن بعض هذه الرموز كانت صالحة للوصول إلى حسابات على «شات جي بي تي»، بينها حسابات لموظفين في «أوبن أيه آي»، كما أمكن استخدامها للوصول إلى خدمة GitHub التابعة للشركة، والتي تستضيف مستودعاتها البرمجية.</div></p><p class='article-text'><div data-empty="false">ومن هناك، تمكن الباحثون من الوصول إلى مستودع داخلي يحمل اسم Monorepo، وصفه أشخاص مطلعون على بنية «أوبن أيه آي»، بحسب الصحيفة، بأنه مستودع برمجي ضخم يحتوي على أجزاء مهمة من أسرار الشركة الخوارزمية. ولا يُعتقد أنه يحتوي على «أوزان» النماذج نفسها، وهي المكونات الرقمية الأساسية التي تقوم عليها نماذج الذكاء الاصطناعي.</div></p><p class='article-text'><div data-empty="false">وباستخدام «شات جي بي تي» كواجهة، تمكن الباحثون من قراءة ملفات داخل المستودع. لكنهم قالوا إنهم توقفوا عن التوغل بعدما أدركوا أنهم وصلوا إلى بيانات حساسة.</div></p><p class='article-text'><div data-empty="false">وقبل التوقف، نفذ الفريق خطوة لإثبات نجاح الاختراق، إذ طلب من النظام إنشاء Pull Request، وهو اقتراح لإجراء تعديل على أحد الملفات. واقترح الباحثون إضافة عبارة تشير إلى فريق Hacktron AI وروابط لحسابات اثنين من أعضائه على منصة «إكس». ولم توافق «أوبن أيه آي» على التعديل، لكنها قالت إن مراجعتها كشفت عن عمليات قراءة محدودة لبيانات وصفية وشيفرات داخل مستودعات خاصة.</div></p><p class='article-text'><div data-empty="false">وأصلحت منصة  "ديسكورس" الثغرة في 25 يوليو، بينما قالت «أوبن أيه آي» إنها عالجت المشكلات المرتبطة بالحادثة، بما في ذلك تضييق صلاحيات رموز تسجيل الدخول وإلغاء الرموز والجلسات المتأثرة.</div></p><p class='article-text'><div data-empty="false">وأكّدت "أوبن ايه آي" إصلاح العطل  خلال  14 ساعة من إبلاغها به وقدّمت للباحثين مكافأة بقيمة 6500 دولار.</div></p><p class='article-text'><div data-empty="false">وقال موهان بيدهاباثي، كبير مسؤولي التكنولوجيا في Hacktron AI، لـ«وول ستريت جورنال» إن ما فعله الفريق لا يتطلب قدرات ضخمة، مشيرًا إلى أنهم كانوا مجرد ثلاثة أشخاص يمتلكون اشتراكات في Claude وCodex، في إشارة إلى مدى انخفاض الحاجز أمام تنفيذ عمليات سيبرانية معقدة بمساعدة الذكاء الاصطناعي.</div></p><p class='article-text'><div data-empty="false">ويرى خبراء أمنيون أن خطورة الواقعة لا تكمن فقط في وجود ثغرات برمجية، وإنما في قدرة نماذج الذكاء الاصطناعي الحديثة على مساعدة عدد أكبر من الأشخاص في العثور على هذه الثغرات واستغلالها بسرعة أكبر.</div></p><p class='article-text'><div data-empty="false">وقال جوشوا ساكس، كبير مسؤولي التكنولوجيا في شركة Abundant Security، إن عالم البرمجيات مليء بالثغرات، لكن اكتشافها كان يتطلب في السابق عددًا محدودًا من الخبراء المتخصصين. أما الآن، فأصبحت أدوات الذكاء الاصطناعي قادرة على إتاحة جزء من هذه القدرات لأشخاص أقل خبرة.</div></p><p class='article-text'><div data-empty="false">وتشير الواقعة إلى جانب آخر من السباق المتسارع في الذكاء الاصطناعي، فالنماذج التي تُطور لمساعدة البشر على البرمجة وتحليل الأنظمة يمكن استخدامها أيضًا في اكتشاف نقاط الضعف والهجوم عليها، ما يجعل الدفاع عن البنية الرقمية للشركات أكثر تعقيدًا.</div></p><p class='article-text'><div data-empty="false">وبعد هذه الحادثة وهجوم آخر مرتبط بوكلاء ذكاء اصطناعي استهدف منصة Hugging Face، قال غريغ بروكمان، رئيس OpenAI وأحد مؤسسيها، إن الشركة أجرت مراجعة أمنية واسعة لأنظمتها، وخصصت نحو 25% من مهندسي الإنتاج للدفاع الأمني، بعدما كشفت المراجعة عن عدد من المشكلات التي قالت الشركة إنها عملت على إصلاحها.</div></p><p class='article-text'><div data-empty="false">وتأتي هذه الواقعة في وقت تتزايد فيه المخاوف من انتقال الهجمات السيبرانية المدعومة بالذكاء الاصطناعي من عمليات تتطلب أشهرًا من التحضير وفِرقًا متخصصة، إلى عمليات يمكن تنفيذ أجزاء كبيرة منها بسرعة وبمساعدة نماذج متقدمة.</div></p>

سابقة تاريخية.. «كلود» يخترق «شات جي بي تي»؟

<p class='article-text'>أعلنت شركة "أوبن إيه آي"، أمس الأربعاء، أنها ستصدر تقارير دورية عن السلوكيات غير المتوقعة أو غير المصرح بها لنماذج الذكاء الاصطناعي، وسط تزايد المخاوف بشأن تحديات مواءمة هذه النماذج مع الأهداف المرجوة.</p><p class='article-text'>وأطلقت الشركة إطار عمل جديداً لرصد حالات عدم مواءمة نماذج الذكاء الاصطناعي والتحقيق فيها والكشف عنها، بالتزامن مع نشر ستة تقارير عن سلوكيات غير متوقعة أو مثيرة للقلق رُصدت في النماذج خلال الأشهر الستة الماضية، وفقاً لـ"رويترز".</p><p class='article-text'>وشملت هذه الحالات نماذج وضعت تعليماتها الخاصة ضمن ملخصات المهام، وأخفت أخطاء ورفعت ملفات على الإنترنت لاستخدامها كمراجع، فضلاً عن تبادل ملفات بين وكلاء ذكاء اصطناعي متعاونين من دون تصريح.</p><p class='article-text'>وأكدت "أوبن إيه آي" أن التقارير توثق حالات فردية ولا تشكل مؤشراً على مدى تكرار حالات عدم المواءمة في نماذجها، موضحة أن الإطار الجديد يتيح للموظفين الإبلاغ عن الوقائع المحتملة والتحقيق فيها وتحديد الحالات التي تستدعي الإفصاح عنها علناً.</p>

"أوبن إيه آي" تطلق إطاراً لرصد السلوكيات غير المتوقعة لنماذج الذكاء الاصطناعي

<p class='article-text'><div data-empty="false">أجرت شركة «أوبن إيه.آي» محادثات مع مستثمرين كبار بخصوص جولة جديدة لجمع رأس المال من شأنها أن ترفع تقييم الشركة ​المطورة لتطبيق «تشات جي.بي.تي» إلى نحو 1.2 تريليون دولار قبل طرح أسهمها للاكتتاب العام.</div></p><p class='article-text'><div data-empty="false">وكانت الشركة أغلقت جولة تمويل في مارس الماضي بتمويل تعهد به المستثمرون قدره 122 مليار ⁠دولار، ما رفع قيمتها السوقية إلى 852 ملياراً.</div></p><p class='article-text'><div data-empty="false">وسبق وذكر رئيس أوبن إيه.آي التنفيذي سام ألتمان أن الشركة لن تطرح أسهمها ⁠للاكتتاب العام في 2026، مشيراً إلى مخاوف تتعلق بالسلامة بشأن الذكاء الاصطناعي.</div></p><p class='article-text'><div data-empty="false">وتسعى «أوبن إيه.آي» ومنافستها «أنثروبيك» إلى فرض مزيد من الضوابط التنظيمية على الذكاء الاصطناعي لضمان تطوير ​هذه التكنولوجيا بطرق ‌تعزز السلامة وسط مخاوف بشأن الأمن وإساءة الاستخدام.</div></p>

«أوبن إيه.آي» تستهدف تقييماً بـ 1.2 تريليون دولار

<p class='article-text'><div data-empty="false">أعلنت شركة "أوبن إيه آي" المطوّرة لـ"تشات جي بي تي" أنها تعمل مع "أنثروبيك" المنتجة لنموذج "كلود"، وشركة "غوغل" المطوّرة لـ"جيميناي"، على إنشاء هيئة للإشراف على مخاطر الذكاء الاصطناعي، في ظل تصاعد الدعوات لكبح تطوّره.</div></p><p class='article-text'><div data-empty="false">وأفادت "أوبن إيه آي" بأنها تعمل مع الشركتين الأخريين بناء على اقتراح مسؤول في "غوغل" لإنشاء هيئة ناظمة تستند إلى نموذج هيئة تنظيم الصناعة المالية الأميركية التي تشرف على الوسطاء الماليين والشركات الاستثمارية.</div></p>

أوبن إيه آي وغوغل وأنثروبيك تتحد لمواجهة مخاطر الذكاء الاصطناعي

<p class='article-text'>نشر قسم الذكاء الاصطناعي في شركة مايكروسوفت أمس الاثنين ميثاق سلوك يحدد طريقة عمل نماذج الذكاء الاصطناعي الخاصة بها، في ظل تزايد المخاوف بشأن مخاطر هذه التكنولوجيا.</p><p class='article-text'>وبنيت هذه الوثيقة استنادا إلى ما تطلق عليه مايكروسوفت "الذكاء الاصطناعي الإنساني " (Humanist AI)، وهو أنظمة صممت لتبقى خاضعة تماما للسيطرة البشرية بدلا من العمل بشكل مستقل.</p><p class='article-text'>وأوضحت الشركة أن الفكرة الموجِّهة هي أن "البشر أهم من الذكاء الاصطناعي".</p><p class='article-text'>وربطت مايكروسوفت التوقيت جزئيا بمخاوف أمنية مشيرة إلى حملات القرصنة المنسقة الواسعة النطاق التي نفّذت أخيرا بمساعدة وكلاء الذكاء الاصطناعي كدليل على أن هذا القطاع لا يمكنه تحمل التأخير في وضع قوانين منظِّمة.</p><p class='article-text'>ويأتي إعلان مايكروسوفت بعد أيام من نشر الرئيس التنفيذي لشركة أنثروبيك داريو أمودي مقالا يدعو فيه شركات الذكاء الاصطناعي إلى إبطاء وتيرة تحسين قدرات النماذج بشكل متعمد، وهو نداء سرعان ما حظي بدعم على وسائل التواصل الاجتماعي من رئيس شركة أوبن إيه آي سام ألتمان وإيلون ماسك.</p><p class='article-text'>وسيُطبَّق ميثاق السلوك على نماذج MAI الداخلية الخاصة بمايكروسوفت والتي طرحتها الشركة كبديل لتقنية أوبن إيه آي التي اعتمدت عليها لسنوات.</p>

مايكروسوفت تنشر ميثاق سلوك خاصاً بالذكاء الاصطناعي

<p class='article-text'>سحب الملياردير في مجال التكنولوجيا إيلون ماسك دعواه القضائية ضد شركة أبل، التي اتهم فيها الشركة المصنعة لهواتف آيفون بتفضيل "تشات جي بي تي" التابع لشركة "أوبن إيه آي" بشكل غير عادل على روبوتات الدردشة المنافسة.</p><p class='article-text'>وكان ماسك قد رفع دعوى قضائية ضد أبل وشركة "أوبن إيه آي"، مطورة "تشات جي بي تي"، قبل أكثر قليلا من عام، متهما أبل بعرقلة منافسين مثل روبوت الدردشة "جروك" التابع له لمنح "تشات جي بي تي" أفضلية.</p><p class='article-text'>وأظهرت مستندات قُدمت إلى المحكمة يوم الاثنين أن الدعاوى المرفوعة ضد أبل تمت تسويتها، دون تقديم تفاصيل بشأن كيفية حلها. ومع ذلك، لا تزال دعوى ماسك ضد "أوبن إيه آي" قائمة.</p><p class='article-text'>وكان ماسك من المستثمرين الأوائل في "أوبن إيه آي""، كما أنه منخرط في نزاع مستمر منذ فترة طويلة مع رئيسها التنفيذي سام ألتمان.</p><p class='article-text'>واتهم ماسك ألتمان، من بين أمور أخرى، بتحويل "أوبن إيه آي" بشكل غير قانوني من منظمة تأسست في الأصل باعتبارها مؤسسة غير ربحية إلى شركة تسعى لتحقيق الأرباح، والاستفادة من هذا التغيير. وأصدرت هيئة محلفين في كاليفورنيا حكما ضد ماسك في تلك القضية.</p><p class='article-text'>وتركزت اتهامات ماسك ضد أبل على شراكة مع "أوبن إيه آي" أُعلن عنها في عام 2024. وبموجب هذا الاتفاق، يمكن لمستخدمي هواتف آيفون وغيرها من أجهزة أبل إرسال الاستفسارات التي يعجز المساعد الصوتي "سيري" عن الإجابة عنها إلى "تشات جي بي تي".</p>

ماسك يسحب دعواه ضد أبل بشأن المنافسة في مجال الذكاء الاصطناعي

<p class='article-text'>رحب رئيس الوزراء البريطاني آندي بيرنام بالتركيز الجديد من مطوري التكنولوجيا الجديدة على المخاطر التي قد يشكلها الذكاء الاصطناعي على العالم، حسبما ذكر مكتبه يوم أمس الاثنين.</p><p class='article-text'>وقال متحدث رسمي باسم بيرنام إن رئيس الوزراء يرى أنه "أمر جيد" أن يتحدث كبار المسؤولين في مجال الذكاء الاصطناعي علنا عن المخاطر التي قد تشكلها التكنولوجيا على الأمن العالمي، بحسب وكالة الأنباء البريطانية (بي إيه ميديا).</p><p class='article-text'>وأكد داريو أمودي، رئيس شركة "أنثروبيك" للذكاء الاصطناعي، يوم السبت، أنه يشعر بالقلق من أن الذكاء الاصطناعي "يتقدم بوتيرة أسرع بكثير" منذ الصيف الماضي.</p><p class='article-text'>وقال أمودي إنه نظرا إلى وتيرة التطور، فإنه يخشى أن يصبح الذكاء الاصطناعي، خلال فترة تتراوح بين ستة و12 شهرا، قادرا على قيادة مجموعة يمكنها السيطرة على شبكة الإنترنت بالكامل.</p><p class='article-text'>وشارك رجل الأعمال، الذي تقف شركته وراء مساعد الذكاء الاصطناعي "كلود"، خطة من ثلاثة أجزاء لتطوير التكنولوجيا "بوتيرة متوازنة".</p><p class='article-text'>وحظي مقاله، الذي حمل عنوان "يجب أن نضبط وتيرة التطور"، بدعم قادة آخرين في القطاع، من بينهم رئيس "جروك" إيلون ماسك، والشريك المؤسس لشركة "أوبن إيه آي" سام ألتمان.</p><p class='article-text'>وردا على سؤال بشأن التركيز الجديد في قطاع الذكاء الاصطناعي على سلامة هذه التكنولوجيا، قال المتحدث الرسمي باسم بيرنام: "يرى رئيس الوزراء أنه أمر جيد أن تتحدث الشركات التي تطور أكثر أنظمة الذكاء الاصطناعي تقدما الآن بشكل علني عن المخاطر، إلى جانب الفرص التي توفرها التكنولوجيا".</p>

رئيس وزراء بريطانيا يرحب بالتحذيرات المتعلقة بمخاطر الذكاء الاصطناعي

<p class='article-text'><div data-empty="false">رأى الخبير الألماني في قطاع تكنولوجيا المعلومات، دينيس-كينجي كيبكر، أن تحذيرات الشركات الرائدة من خروج الذكاء الاصطناعي عن السيطرة مبررة من حيث المبدأ.</div></p><p class='article-text'>وقال في معهد الاستخبارات السيبرانية، في تصريحات لمحطة «زد دي إف» التلفزيونية الألمانية، إنه رغم عدم إمكانية إثبات الأطر الزمنية المحددة بشكل تجريبي لحدوث ذلك، «يمكن القول بالتأكيد إننا نقترب أكثر فأكثر من كارثة كبرى محتملة بسبب الذكاء الاصطناعي».</p><p class='article-text'>وتدور حالياً نقاشات واسعة حول أمن أنظمة الذكاء الاصطناعي. وقال داريو أمودي، رئيس شركة الذكاء الاصطناعي الأمريكية «أنثروبيك»، في منشور خلال عطلة نهاية الأسبوع، إنه يشعر بالقلق من احتمال أن يصبح سرب من أنظمة الذكاء الاصطناعي في غضون 6 إلى 12 شهراً قادراً على السيطرة على الإنترنت بأكمله والتسبب في أضرار محتملة تصل إلى مئات المليارات من الدولارات.</p><p class='article-text'>وتلقى أمودي خلال ساعات قليلة تأييداً من منافسين مثل سام ألتمان، رئيس شركة «أوبن إيه آي» المطورة لـ«شات جي بي تي»، وكذلك الملياردير في مجال التكنولوجيا إيلون ماسك.</p><p class='article-text'>وشبه كيبكر هذا التطور ببيت من ورق، قائلاً: «نبني بيت الذكاء الاصطناعي المصنوع من الورق أعلى فأعلى وبسرعة أكبر فأكبر».</p><p class='article-text'>موضحاً أنه كلما زاد دمج مكونات الذكاء الاصطناعي في الأنظمة، زادت المخاطر، ومنها مخاطر في إمدادات الطاقة، والخدمات اللوجستية وسلاسل التوريد، والبنى التحتية للأسواق المالية، وأنظمة الأسلحة العسكرية.</p><p class='article-text'><div data-empty="false">وقال كيبكر إن تعطل الأنظمة التي يديرها الذكاء الاصطناعي في البنى التحتية الحيوية يمكن أن يؤدي «فوراً إلى تأثيرات متسلسلة على أمن إمدادات السكان». </div></p><p class='article-text'>كما أن مجرمي الإنترنت يستخدمون قدرات الذكاء الاصطناعي بشكل متزايد لتنفيذ هجمات على الدولة والإدارة الحكومية.</p>

نتائج البحث عن: شركة أوبن ايه آي